欠擬合，過擬合及正則化

在設計Machine Learning系統時，我們很難從系統運行之前就得知系統的“復雜程度”。在線性回歸中，我們可以將此問題等同為：使用幾維參數，是否需要涉及更復雜的多項式，以及本文的一個新概念—Re ...

經典監督學習方法

生成算法嘗試去找這個數據到底是怎么生成的（產生的），然后再對一個信號進行分類。基於你的生成假設，哪個類別最有可能產生這個信號，這個信號就屬於那個類別。 判別模型不關心數據是怎么生成的，它只關心信 ...

Support Vector Machine(1):線性可分集的決策邊界

與Logistuc Regression相比，SVM是一種優化的分類算法，其動機是尋找一個最佳的決策邊界，使得從決策邊界與各組數據之間存在margin，並且需要使各側的margin最大化。比較容易理解 ...